В условии if (R>mas[0]) всегда сравнивается с mas[0], а не с mas[i].